Google спира генерирането на изображения на хора от Gemini AI след расови „неточности“

Гугъл съобщи в четвъртък, че краткотрайно стопира своя чатбот с изкуствен интелект Gemini да генерира изображения на хора ден откакто се извини за „ грешки “ в историческите изображения, които е основаване.

Потребителите на Gemini тази седмица разгласиха екранни фотоси в обществените медии на исторически доминирани от бели подиуми с расово разнообразни герои, които съгласно тях са генерирани, което накара критиците да издигнат въпроси дали компанията прекалено поправя риска от расова принадлежност пристрастия в своя AI модел.

„ Вече работим за справяне със скорошни проблеми с функционалността за генериране на изображения на Gemini “, сподели Гугъл в обява в платформата за обществени медии X. „ Докато вършим това, ние ще сложим на пауза генерирането на изображения на хора и скоро ще пуснем още веднъж усъвършенствана версия. “

Предишни изследвания демонстрират, че генераторите на изображения с изкуствен интелект могат да разширят расовите и половите стандарти, открити в техните данни за образование, и без филтри са по-склонни да покажат мъже с по-светла кожа, когато бъдат помолени да генерират човек в разнообразни контексти.

Гугъл съобщи в сряда, че е „ наясно, че Близнаците оферират грешки в някои изображения за генериране на исторически изображения “ и че това е „ работи за неотложно възстановяване на тези типове изображения. “

Gemini може да генерира „ необятен кръг от хора “, което съгласно компанията е „ като цяло положително нещо “, тъй като хората по света употребяват системата, само че тя „ липсва задачата “.

Университет от вашингтонския откривател Суроджит Гош, който е изучавал пристрастията в генераторите на изображения с изкуствен интелект, сподели, че поддържа Гугъл да спре генерирането на лица на хора, само че е „ малко спорен по отношение на това по какъв начин сме стигнали до този резултат “. Противно на изказванията за по този начин нареченото „ бяло заличаване “ и предпоставката, че Близнаци отхвърля да генерира лица на бели хора – хрумвания, циркулиращи в обществените медии тази седмица – проучването на Гош значително откри противоположното.

„ Бързината на този отговор в лицето на доста друга литература и доста други проучвания, които демонстрират, че обичайно маргинализираните хора са били заличени от модели като този - намирам за малко мъчно да се изправя “, сподели той.

Когато AP помоли Gemini да генерира фотоси на хора или даже просто на огромна навалица, тя отговори, като сподели, че „ работи за възстановяване “ на способността за това. „ Очакваме тази функционалност да се върне скоро и ще ви уведомим в актуализации на изданието, когато се случи “, сподели чатботът.

Гош сподели, че е евентуално Гугъл да откри метод да филтрира отговорите, с цел да отрази историческия подтекст на подкана на потребителя, само че разрешаването на по-широките вреди, породени от генератори на изображения, построени върху генерации фотоси и творби на изкуството, открити в интернет, изисква повече от техническа промяна.

„ Няма да измислите за една нощ генератор на текст към изображение, който не предизвиква щета на представянето “, сподели той. „ Те са отражение на обществото, в което живеем. “